Năm 1960, sau khi bị trục xuất khỏi Trường Cao đẳng Kỹ thuật Hodgson vì hoạt động chính trị, ông đã tham gia vào một công ty xây dựng mới khởi nghiệp ở Nampala. Các liên doanh kinh doanh chỉ kéo dài ba tháng. Trong thời gian đó, ông được Đảng Quốc hội độc lập yêu cầu tổ chức bữa tiệc tại Chililabombwe (Bancroft), mà ông đã làm cho đến cuối năm 1961. Sau đó, ông trở về Lusaka, nơi ông trở thành Thư ký cho Đoàn Thanh niên UNIP trong khi làm việc cho một công ty tư nhân.

Năm 1962 ông được tuyển mộ vào Zimbabwe African People's Union (ZAPU) bởi Willie Musarurwa. Sau khi gia nhập ZAPU, anh ấy đã rời khỏi [Tanzania], nơi anh ở lại [Mbeya] và sau đó vào trại tập huấn ZAPU mới với James Chikerema, Clement Muchachi và Danha. Vào tháng 4 năm 1963, Mnangagwa, cùng với 12 thành viên khác của ZAPU, đã được gửi tới Dar es Salaam và đến Heliopolis để huấn luyện quân sự tại Học viện Quân sự Ai Cập.

Vào tháng 8 năm 1963, ông và mười trong mười ba thành viên của đảng đã quyết định tham gia vào [Zimbabwe African National Union] (ZANU) mới thành lập. Điều này đã dẫn đến sự giam giữ của họ bởi các nhà chức trách Ai Cập đã công nhận ZAPU có quỹ, nhưng không phải ZANU mà không có. Trong thời gian giam giữ này, các thành viên của ZANU đã liên lạc với [Robert Mugabe], người đã ở Tanganyika vào thời điểm đó và nói với anh ta rằng mười một học sinh đã rời ZAPU, ngừng đào tạo và hiện đang bị giam giữ. Mugabe đã chuyển hướng Trynos Makombe, người đã đi từ Trung Quốc, đến Ai Cập để giải thoát cho họ. Makombe cung cấp cho họ vé để bay tới Dar es Salaam.

Khi đến Tanganyika, sáu trong số mười một đã trở lại Rhodesia trong khi Mnangagwa và năm người còn lại tham gia trại Frelimo đầu tiên ở Bagamoyo vào cuối tháng 8 năm 1963. Mnangagwa đã được gửi đến Trung Quốc cùng với những người khác Quân đội Giải phóng Nhân dân châu Phi Zimbabwe (ZANLA), nơi họ đã trải qua hai tháng đầu tại [Trường Đại học Bắc Kinh, trường Marxism, Đại học Bắc Kinh] ở Bắc Kinh. Huấn luyện chiến đấu đã được tiến hành trong Nanking trong ba tháng tới. Mnangagwa sau đó vẫn ở một trường khác cho kỹ thuật quân sự. Nhóm gồm có Felix Santana, Robert Garachani, Lloyd Gundu, Phebion Shonhiwa và John Chigaba. Sau khi hoàn thành đào tạo quân đội vào tháng 5 năm 1964, họ quay trở lại Tanganyika, nơi họ thành lập "Nhóm Cá sấu"[14][15]. Không có vũ khí nào có sẵn để có thể sử dụng được trong vùng miền Nam Rhodesia, mặc dù nhiệm vụ này được giao cho John Mataure và Noel Mukono.

Nhóm đã vội vã tham dự Đại hội ZANU tại Mkoba, Gweru, vào tháng 5 năm 1964, đến một ngày trước Quốc hội. Kết quả của cuộc bầu cử như sau:

• Ndabaningi Sithole: Tổng thống
• Leopold Takawira: Phó tổng hống
• Herbert Chitepo: Chủ tịch Quốc hội
• Robert Mugabe: Tổng thư ký

Sau Đại hội ZANU, ba đồng nghiệp của ông, tức là Shoniwa, Jameson Mudavanhu và Edison Shirihuru, bị bắt giữ và bắt vì buôn lậu súng vào Nam Rhodesia. Ông ta đã gửi [Lawrence Svosve] quay trở lại Lusaka với một số tin nhắn nhưng không bao giờ gặp lại ông ta.

Mặc dù thất bại này, nhóm cá sấu vẫn tiếp tục hoạt động và có sự tham gia của Matthew Malowa, một thành viên của ZANU, người đã được đào tạo ở Ai Cập. Ngoài việc buôn lậu vũ khí vào đất nước, nhiệm vụ chính là tuyển mộ những người ủng hộ từ [Harare, Salisbury], [Masvingo | Fort Victoria], [Mberengwa (District) | Mberengwa], và Macheke và buôn lậu chúng qua biên giới tại Mutoko], để họ có thể tiếp tục đào tạo cho Tanzania, cả chính trị và du kích. Nhóm Cá sấu đi hoàn toàn bằng chân giữa Salisbury và Mutoko.

Lãnh đạo của ZANU tại Sikombela đã gửi cho nhóm cá sấu một thông điệp khuyến khích họ thực hiện một số hành động để các giấy tờ báo cáo về điều đó, và cho thấy rằng nó thuộc quyền chỉ huy của Bộ Tư lệnh Quân sự ZANU. Mục đích là các đoạn tin sẽ được hiển thị cho OAU Ủy ban giải phóng đang họp ở Dar es Salaam để nó có thể thấy rằng ZANU thực sự hoạt động trong nước. Thông điệp được gửi bởi William Ndangana, người đã gặp Crocodile Group tại nhà Rev Ndabaningi Sithole ở Highfield. Kế hoạch này là thiết lập các rào chắn để khủng bố người da trắng. Vào thời điểm này, nhóm người Rhodesians gọi là "Gang cá sấu", bao gồm William Ndangana, Mnangagwa, Matthew Malowa, Victor Mlambo, James Dhlamini và Master Tresha. Trong cuộc hành quân này, họ đã giết một nông dân cư dân và nhân viên cảnh sát, Petrus Oberholtzer, tại [Nyanyadzi] ở Chimanimani, và phá hoại một đầu máy xe lửa ở Fort Victoria. Vụ việc đã dẫn đến việc bắt giữ và treo James Dhlamini và Victor Mlambo. Đó là vào tháng 1 năm 1965, Mnangagwa đã bị cảnh sát Anh Cảnh sát Nam Phi cảnh sát ở nhà của Michael Mawema ở Highfield, Harare, Highfield. Sau đó nó phát hiện ra rằng Mawema đã phản bội ông ta đến cảnh sát Rhodesian. Một trong những cộng sự khác của Mnangagwa, John Chigaba, sau đó bị giam vì đã cố gắng vào cuộc đời của Mawema.

Mnangagwa đã khai khi bị tra tấn[16] rằng ông đã cho nổ tung đầu máy xe lửa trong Masvingo và bị kết án theo Đạo luật Bảo trì và Cải cách năm 1960.[17] Ông được bảo vệ bởi J. J. Horn của Scanlen và Holderness người đã nhận rằng ông là người chưa đủ tuổi và không thể bị hành quyết. Sau đó, ông được đưa đến bệnh viện, nơi bác sĩ xác nhận ông dưới 21 tuổi và kết quả là ông bị kết án 10 năm tù giam. Anh ta phục vụ năm đầu tiên tại Salisbury Prison và sau đó đi đến Nhà tù Grey Street và sau đó là Nhà tù Khami (cả hai đều gần Bulawayo, Zimbabwe Bulawayo), nơi anh ta thụ án sáu năm và tám tháng.

Sau khi bị kết án 10 năm tù, anh ta bị giam thêm tại Khami và sau đó tại nhà tù Harare cùng với các dân tộc khác như Robert Mugabe, Enos Nkala, Maurice Nyagumbo, Edgar Tekere, và Didymus Mutasa. Sau đó anh ta bị trục xuất sang Zambia nơi bố mẹ anh ta đang sinh sống.

Mnangagwa được thả ra cho Đảng tại Livingston và đưa cho cảnh sát Zambia. Một đại diện của ZANLA, Baya, đã đến đón anh tại cầu Victoria Falls và tiếp tục với anh ta đến Lusaka. Josiah Tongogara là Tư lệnh của ZANLA.

Sau khi trải qua hầu hết thời gian tù giam 10 năm tù, Mnangagwa lấy bằng luật [Đại học Zambia]. Ông đã thực hành luật với Enoch Dumbutshena và tăng gấp đôi làm Thư ký cho ZANU cho Phòng Zambia ở Lusaka. Ông cũng là thành viên ban giám khảo của chính trường tại Đại học Zambia.

Tuy nhiên, Mnangagwa sớm rời khỏi pháp luật tư nhân và đến Mozambique để chiến đấu trong Mozambican War of Independence chống lại sự cai trị thực dân Bồ Đào Nha. Trong khi đó, ông đã gặp Robert Mugabe, và trở thành trợ tá và vệ sĩ.[11]

Tại Đại hội Chimoio năm 1977, ông được bầu làm Trợ lý đặc biệt cho Tổng thống và là thành viên của Ban Điều hành Quốc gia cho ZANU. Sau đó anh ta rời chương trình thực hành và tham gia vào Tổng thống vào khoảng tháng 10 năm 1977 tại Chimoio. Vị trí Trợ lý Đặc biệt có nghĩa là ông là người đứng đầu cả hai bộ phận dân sự và quân sự của Đảng. Số 2 của ông là Gava (nay là Tổng Thư ký đã về hưu Zvinavashe, người đứng đầu Bộ An ninh trong Bộ Tư lệnh Quân sự nhưng là phó của ông trong Uỷ ban Trung ương thuộc Bộ An ninh.

Mnangagwa cùng Mugabe tham gia vào các cuộc đàm phán đã dẫn tới việc ký kết Hiệp ước Lancaster House, nơi công nhận Cộng hòa Zimbabwe Zimbabwe]. nhóm các nhà lãnh đạo dân sự đầu tiên bao gồm Didymus Mutasa và Edson Zvobgo từ Maputo tới Zimbabwe. Rex Nhongo (nay là General Retired General Mujuru) cũng dẫn đầu nhóm chỉ huy số 28 từ Maputo tới ngừng bắn.